Trong tiếng Anh, từ symphony (nghĩa là "giao hưởng") có nguồn gốc từ chữ συμφωί (symphonia) trong tiếng Hy Lạp, có nghĩa là "sự đồng điệu hoặc phối hợp của âm thanh" hoặc "buổi hòa nhạc với giọng hát hoặc nhạc cụ". Thuật ngữ συμφωί lại xuất phát từ chữ σύμφωνος (symphōnos) với nghĩa là "hòa hợp".[1] Trước khi được sử dụng để chỉ một thể loại tác phẩm âm nhạc như ta hiểu ngày nay thì từ này có rất nhiều nghĩa khác nhau.

Trong nhạc lý cuối thời Hy Lạp và Trung cổ, từ này được sử dụng để nói đến khái niệm "thuận tai", đối nghĩa với δδφω (diaphōnia), có nghĩa là "nghịch tai".[2] Vào thời Trung cổ và sau đó, từ symphonia trong tiếng Latin lại được sử dụng để mô tả các loại nhạc cụ khác nhau, đặc biệt là những nhạc cụ có khả năng tạo ra nhiều âm thanh cùng một lúc.[2]Thánh Isidore xứ Seville là người đầu tiên sử dụng từ symphonia để chỉ một loại trống hai đầu. Khoảng năm 1155 đến 1377, từ symphonie trong tiếng Pháp được để chỉ organistrum hay đàn hurdy-gurdy. Ở nước Anh thời Trung cổ, từ symphony được sử dụng theo cả hai nghĩa trên, đến thế kỷ 16, từ này lại dùng để chỉ đàn dulcimer. Trong tiếng Đức, symphonie là một thuật ngữ để chỉ đàn spinet và đàn virginal nói chung từ cuối thế kỷ 16 đến thế kỷ 18.[3]

Với nghĩa "giao hưởng" (nhiều âm thanh cùng hòa hợp với nhau), từ này bắt đầu xuất hiện trong tựa đề của một số tác phẩm của các nhà soạn nhạc thế kỷ 16 và 17, có thể kể đến như Giovanni Gabrieli với Sacrae symphoniae và Symphoniae sacrae, liber secundus, xuất bản lần lượt vào năm 1597 và 1615; Adriano Banchieri với Eclesiastiche sinfonie, dette canzoni in aria francese, per sonare, et cantare, op. 16, xuất bản năm 1607; Lodovico Grossi da Viadana với Sinfonie musicali, op. 18, xuất bản năm 1610; và Heinrich Schütz với Symphoniae sacrae, op. 6, và Symphoniarum sacrarum secunda Pars, op. 10, xuất bản vào năm 1629 và 1647, tương ứng. Ngoại trừ bộ tác phẩm của Viadana với âm nhạc chỉ gồm khí nhạc và mang tính thế tục, tất cả các bộ tác phẩm còn lại đều có phần thanh nhạc bên cạnh phần nhạc cụ đệm và là các tác phẩm tôn giáo.[4][5]

Sang thế kỷ 17, vào phần lớn thời kỳ Baroque, thuật ngữ symphony và sinfonia đã được sử dụng cho một loạt các tác phẩm khác nhau, bao gồm cả các bản nhạc được chơi trong các vở opera, sonata và concerto. Giao hưởng lúc này không đứng độc lập mà thường là một phần của một tác phẩm lớn hơn. Vào thế kỷ 18, opera sinfonia, hay khúc dạo đầu kiểu Ý có cấu trúc ba chương tương phản điển hình: nhanh-chậm-nhanh, giống như trong một điệu nhảy. Cấu trúc điển hình này thường được coi là tiền thân trực tiếp của các bản giao hưởng sau này. Vào thời điểm này, các thuật ngữ "khúc dạo đầu", "symphony" và "sinfonia" được coi là đồng nghĩa hoàn toàn với nhau.[5]

Khác với các tác phẩm từ thế kỷ 19 đến ngày nay, vào thế kỷ 17, các tác phẩm viết cho các dàn nhạc cụ lớn không chỉ định chính xác nhạc cụ nào sẽ chơi phần nào. Khi các nhà soạn nhạc từ thế kỷ 17 viết tác phẩm, họ hy vọng rằng những tác phẩm này sẽ được trình diễn bởi bất kỳ nhóm nhạc sĩ nào có sẵn. Chẳng hạn, ở thế kỷ 19, phần bassline (phần đệm) trong bản nhạc được chỉ định được chơi bởi cello, contrabass và các nhạc cụ cụ thể khác thì ở các tác phẩm của thế kỷ 17, phần continuo basso cho sinfonia sẽ không chỉ định nhạc cụ nào sẽ chơi phần đó. Tác phẩm có thể được trình diễn với một nhóm continuo basso nhỏ chỉ gồm một cello và đàn harpsichord. Tuy nhiên, nếu phần trình diễn được đầu tư nhiều hơn và cần có âm thanh lớn hơn, nhóm continuo basso có thể có nhiều nhạc cụ chơi hợp âm (harpsichord, lute, v.v.) và một loạt các nhạc cụ bass như cello, contrebass, bass viol hoặc thậm chí là kèn serpent, một trong những nhạc cụ bộ gỗ đầu tiên.